Năm 1937 Keitel lên chức đại tướng. Năm sau, khi Oberkommando der Wehrmacht (OKW) thành lập, ông được cử làm tổng chỉ huy và đương nhiên trở thành bộ trưởng bộ chiến tranh. Keitel nhân dịp này nói với Hitler cho bạn thân của mình là Walter von Brauchitsch vào chức tham mưu trưởng quân đội Đức.

Trong Thế chiến thứ hai, Keitel là một trong những kế hoạch gia của quân Đức Quốc xã, phân phối lực lượng cho cả hai mặt trận tây và đông Âu. Ông khuyên Hitler dừng xâm lăng Pháp và cả đánh Liên Xô. Nhưng khi Hitler không nghe, Keitel nhũn bước ngay, và còn lẫy đòi từ chức nhưng Hitler cũng không chấp thuận.

Năm 1940 sau cuộc tấn công Pháp thành công, Keitel được thăng chức thống chế. Tuy là sĩ quan văn phòng không bao giờ ra chiến trường, Keitel vẫn được trao tặng huy chương Thập tự sắt cho "chiến công" hòa giải với chính phủ Vichy.

Keitel hay nịnh bợ chủ mình và thường bị sĩ quan đồng liêu Đức gọi là "con lừa hay gật đầu", và "thằng hầu nhỏ" của Hitler (tiếng Đức "Lakaitel" là một lối chơi chữ lấy tên của Keitel nói nhại đi). Năm 1942 Keitel phản đối khi Hitler đòi đuổi Wilhelm List khi ông này bị quân Liên Xô cầm chân tại trận Caucasus. Hitler không nghe, vẫn tống cổ List. Từ đó trở đi, Keitel không bao giờ dám cãi lại lệnh của Hitler nữa.

Điều rõ ràng nhất là Keitel hỗ trợ Heinrich Himmler trong kế hoạch khủng bố kỳ thị chủng tộc trong các vùng Đức đang kiểm soát trong lãnh thổ Liên Xô. Keitel ký nhiều giấy hành luật đi ngược lại luật chiến tranh quốc tế. Thí dụ cụ thể: Lệnh Commissar cho phép quân Đức xử tử bất cứ chính trị viên Liên Xô nào bị bắt; Điều lệnh Đêm Mù cho phép thủ tiêu kháng chiến quân và tù binh trong khu vực Đức đang chiếm đóng. Ngoài ra Keitel con ký lệnh cho phép xử bắn (thay vì bắt làm tù binh) những phi công Pháp thuộc phi đội Normandie-Niemen bị bắt trong chiến tranh Xô-Đức.

Năm 1943 Hitler đặt kế hoạch chiến dịch Citadel thì Keitel hùa theo trong khi những tướng chỉ huy khác phản đối.

Sau vụ bỏ bom ngày 20 tháng 7 Keitel làm chánh án toàn án quân sự xét xử các sĩ quan bị tình nghi có dính líu đến tổ chức chống Hitler, trong đó có thống chế Erwin von Witzleben.

Tháng 4 - 5 năm 1945 Keitel kêu gọi quân Đức phản công chống lại quân Đồng Minh tiến vào Berlin nhưng quân Đức chẳng còn đủ lực lượng. Sau khi Hitler tự tử, Keitel tiếp tục làm việc cho chính phủ Đức dưới quyền tân tổng thống là đại đô đốc Karl Dönitz.

Ngày 8 tháng 5 năm 1945, Dönitz cử Keitel đến ký giấy đầu hàng vô điều kiện với quân Liên Xô tại Berlin. Mặc dù Đức đã ký giấy đầu hàng ngày hôm trước với quân Hoa Kỳ, Stalin bắt buộc chính phủ Berlin phải long trọng ký thêm một tờ nữa với Liên Xô.